CORAL: An LLM-Native Harness for Production Recommender Systems
CORAL：面向生产推荐系统的 LLM 原生闭环优化框架
🧭 Agent 闭环优化推荐系统控制面 ★ 深度解读
Meta AI
用 LLM agent 闭环优化推荐系统控制面资源配置，以极低成本实现在线 A/B 验证的 engagement 提升或成本节省
📌 工作参考价值（4 点）
- 可把 LLM agent 用于推荐系统资源/预算分配的闭环优化（召回源预算、流量分群 serving 档位、广告库存分配等）；关键是不让 LLM 直接改线上参数，而是让它输出结构化 proposal，由确定性约束优化器投影到可行集。
- 架构上模仿 observation / assessment / decision 三层记忆，保存最近 3 个 cycle 的原始指标、模型判断和决策结果，让 agent in-context 根据自己上次动作的效果调整，不用 retrain；对非平稳线上环境有效。
- 固定决策 cadence（如 3 天）并用 A/B 实验测每个配置的增量，把测量结果写回 memory 作为 attribution，避免噪声误导；初期可先在低风险控制面（预算 multiplier、serving tier）小步跑，再逐步扩大自主范围。
- 成本极低：每个 cycle 仅十几次 LLM 调用、几千 token，与用户量无关，适合亿级流量的电商/广告推荐；如果业务有硬资源约束，优先把 LLM agent 用于配置优化而不是 per-item 生成。